Nvidia het Woensdag alle verwagtinge oortref en stygende winste gerapporteer, gedryf deur sy grafiese verwerkingseenhede (GPU's) wat uitblink in die aandryf van kunsmatige intelligensie-werkladings. Maar ander klasse KI-skyfies begin momentum kry.

Elke groot wolkverskaffer ontwerp nou sy eie toepassingspesifieke geïntegreerde stroombane (ASIC's), van Google se TPU tot Amazon se Trainium tot OpenAI se planne met Broadcom. Hierdie skyfies is kleiner, goedkoper, makliker om te gebruik, en kan daardie maatskappye se afhanklikheid van Nvidia se GPU's verminder. Daniel Newman van Futurum Group het aan CNBC gesê hy verwag dat ASIC-skyfies "oor die volgende paar jaar vinniger as die GPU-mark sal groei."

Saam met GPU's en ASIC's, is daar veldprogrammeerbare hek-skikkings (FPGA's), wat na vervaardiging herkonfigureer kan word vir gebruike soos seinverwerking, netwerke en KI. En daar is 'n hele generasie KI-skyfies wat ontwerp is om direk op toestelle te loop eerder as deur die wolk - 'n segment wat gelei word deur maatskappye soos Qualcomm en Apple.

CNBC het met kenners en insiders by groot tegnologiemaatskappye gepraat om hierdie oorvol landskap en die verskillende soorte KI-skyfies te ontleed.

GPU's vir algemene rekenaarwerk

GPU's is eens hoofsaaklik vir videospeletjies gebruik, maar hulle het Nvidia in die wêreld se waardevolste publieke maatskappy verander sodra hulle die enjin van moderne KI geword het. Nvidia het verlede jaar ongeveer 6 miljoen eenhede van sy huidige generasie "Blackwell" GPU's verskeep.

Die verskuiwing van speletjies na KI het in 2012 begin toe navorsers die neurale netwerk AlexNet opgelei het met behulp van Nvidia GPU's – 'n deurbraak wat baie beskou as die vonk van die moderne KI-rewolusie. AlexNet het deelgeneem aan 'n hoëprofiel-beeldherkenningskompetisie en het staatgemaak op GPU's eerder as SVE's, wat verstommende akkuraatheid en 'n groot mededingende voordeel gelewer het.

Dieselfde parallelle verwerkingsvermoë wat GPU's in staat stel om lewensgetroue grafika te lewer, maak hulle ook ideaal vir die opleiding van diep leermodelle, wat uit data leer eerder as eksplisiete programmering.

Vandag word GPU's in datasentrumstelsels verkoop wat saam met SVE's gepaard gaan om wolkgebaseerde KI-werkladings te laat loop. SVE's het 'n handjievol kragtige kerne vir opeenvolgende take, terwyl GPU's duisende kleiner kerne het wat spesialiseer in parallelle bewerkings soos matriksvermenigvuldiging.

Omdat hulle 'n groot aantal bewerkings gelyktydig kan uitvoer, is GPU's ideaal vir beide opleiding en inferensie. Opleiding leer KI-modelle om patrone in enorme datastelle te vind; inferensie gebruik daardie modelle om besluite te neem oor nuwe inligting.

GPU's bly die primêre enjin vir Nvidia en sy naaste mededinger AMD. Sagteware is 'n belangrike onderskeid tussen hulle: Nvidia maak staat op sy CUDA-ekosisteem, terwyl AMD 'n grootliks oopbron-stapel bied.

Beide maatskappye verkoop wolk-GPU's aan verskaffers soos Amazon, Microsoft, Google, Oracle en CoreWeave, wat dan die rekenaarkrag aan KI-ontwikkelaars verhuur.

Anthropic se ooreenkoms van $30 miljard met Nvidia en Microsoft sluit byvoorbeeld die ekwivalent van 1 gigawatt se rekenaarkapasiteit in wat op Nvidia-hardeware gebou is. AMD het onlangs ook groot verbintenisse van OpenAI en Oracle verkry.

Nvidia verkoop ook direk aan regerings en KI-maatskappye – insluitend ten minste 4 miljoen GPU's aan OpenAI – en aan buitelandse regerings soos Suid-Korea, Saoedi-Arabië en die Verenigde Koninkryk.

Die maatskappy het aan CNBC gesê dat hulle ongeveer $3 miljoen per bedienerkabinet wat 72 Blackwell GPU's bevat, vra, en dat hulle elke week ongeveer 1 000 sulke kabinette verskeep.

Dion Harris, Nvidia se senior direkteur vir KI-infrastruktuur, het gesê hy het nooit gedink dat die vraag tot hierdie vlak sou groei nie. “Toe ons jare gelede met maatskappye oor 'n agt-GPU-stelsel gepraat het, het hulle gedink dit was buitensporig.”

ASIC's vir gespesialiseerde wolk-KI

GPU-gebaseerde opleiding het die eerste golf van groot taalmodelle aangevuur, maar inferensie het toenemend belangrik geword namate modelle volwasse word. Inferensie kan uitgevoer word op minder buigsame, laerkoste-skyfies wat spesifiek vir sekere wiskundige bewerkings gebou is – en dit is waar ASIC's ter sprake kom.

As 'n GPU 'n "Switserse leërmes" is wat baie verskillende parallelle take kan uitvoer, is 'n ASIC 'n enkeldoel-instrument - uiters vinnig en doeltreffend, maar vasgesluit in een tipe operasie sodra dit vervaardig is.

“Jy kan nie hierdie skyfies verander sodra hulle in silikon geëts is nie,” het Chris Miller, outeur van *Chip War*, gesê. “Daar is 'n kompromie tussen doeltreffendheid en buigsaamheid.”

Nvidia se GPU's is veelsydig genoeg om aan tallose KI-behoeftes te voldoen, maar hulle is duur (tot $40 000 per eenheid) en moeilik om te bekom. Opstartondernemings maak staat op hulle deels omdat die ontwerp van 'n pasgemaakte ASIC tiene miljoene kan kos.

Wolkreuse belê egter swaar in ASIC's omdat hulle groot besparings op skaal belowe.

“Hierdie maatskappye wil meer beheer hê oor die werkladings wat hulle bou,” het Newman gesê. “Maar hulle sal aanhou om met Nvidia en AMD saam te werk – die rekenaarvraag is enorm.”

Google was die eerste om 'n pasgemaakte KI ASIC te bou, en het die Tensor Processing Unit (TPU) in 2015 bekendgestel. Werk het in 2006 begin, maar dit het in 2013 dringend geword toe Google besef het dat KI die grootte van sy datasentrum-voetspoor kon verdubbel. In 2017 het die TPU gehelp om die Transformer-argitektuur moontlik te maak wat die meeste moderne KI onderlê.

Google het die sewende generasie TPU in November onthul. Anthropic sal sy Claude-model op een miljoen TPU's oefen. Sommige glo dat TPU's meeding met – of oortref – Nvidia GPU's.

“Baie mense verwag dat Google uiteindelik TPU's meer algemeen beskikbaar sal stel,” het Miller gesê.

AWS het gevolg met sy eie skyfies nadat hulle Annapurna Labs in 2015 verkry het. Hulle het Inferentia in 2018 en Trainium in 2022 bekendgestel, met Trainium3 wat binnekort verwag word.

Amazon sê Trainium lewer 30% tot 40% beter prys-prestasie as alternatiewe. Anthropic gebruik tans 'n halfmiljoen Trainium2-skyfies om sy modelle op te lei.

Om pasgemaakte ASIC's te bou, is wolkverskaffers afhanklik van maatskappye soos Broadcom en Marvell – wat kritieke IP- en netwerkkundigheid verskaf. “Daarom het Broadcom een van die grootste wenners van die KI-oplewing geword,” het Miller gesê.

Broadcom het gehelp om Google se TPU's en Meta se 2023-versnellers te ontwerp en bou pasgemaakte skyfies vir OpenAI vanaf 2026.

Microsoft het die Maia 100 ontwikkel. Qualcomm het die A1200. Intel bied die Gaudi-lyn aan. Tesla werk aan sy AI5-skyfie. Opstartondernemings soos Cerebras en Groq bevorder nuwe argitekture.

In China ontwerp Huawei, ByteDance en Alibaba hul eie ASIC's ten spyte van Amerikaanse uitvoerbeperkings.

Toestelvlak-KI met NPU's en FPGA's

'n Derde kategorie KI-skyfies is gebou om modelle direk op toestelle te laat loop eerder as deur die wolk. Hierdie skyfies word tipies geïntegreer in stelsel-op-'n-skyfie (SoC) ontwerpe en staan bekend as rand-KI-verwerkers. Hulle laat KI-funksies toe om plaaslik en doeltreffend te loop, wat batterylewe en privaatheid behou.

“Jy sal KI-take direk op jou foon kan uitvoer met uiters lae latensie,” het Saif Khan, voormalige Withuis-KI- en tegnologie-adviseur, gesê. “En sonder om data na 'n datasentrum te stuur.”

Neurale verwerkingseenhede (NPU's) is 'n belangrike deel van hierdie kategorie, ontwikkel deur Qualcomm, Intel, AMD en ander.

Apple gebruik nie die term NPU nie, maar integreer 'n "neurale enjin" in sy M-reeks Mac-skyfies en sy A-reeks mobiele skyfies.

“Daardie benadering het ongelooflik effektief geblyk,” het Tim Millet, Apple se visepresident van platformargitektuur, gesê. “Dit is vinnig en gee ons meer beheer oor die ervaring.”

Snapdragon-skyfies in Android-fone, Samsung se pasgemaakte NPU's en rand-KI-verwerkers van NXP en Nvidia dryf KI in motors, robotte, kameras en slimhuistoestelle aan.

“Die meeste van die besteding vandag is steeds in datasentrums,” het Miller gesê. “Maar dit sal verander soos KI versprei na fone, motors, draagbare toestelle en alles anders.”

FPGA's bied selfs meer buigsaamheid omdat hulle na vervaardiging herprogrammeer kan word, hoewel hulle minder energie-doeltreffend is as ASIC's of NPU's.

AMD het die grootste FPGA-vervaardiger geword nadat hulle Xilinx vir $49 miljard in 2022 verkry het. Intel is tweede nadat hulle Altera vir $16,7 miljard in 2015 gekoop het.

Slotsom: Nvidia is steeds ver voor

Al hierdie KI-skyfiemaatskappye maak staat op een vervaardiger: TSMC in Taiwan.

TSMC bou 'n massiewe vervaardigingsaanleg in Arizona, waarheen Apple 'n deel van sy produksie sal skuif. Nvidia se uitvoerende hoof, Jensen Huang, het in Oktober gesê dat Blackwell GPU's ook daarheen "volle produksie" bereik het.

Ten spyte van die toenemend oorvol mark, bly dit uiters moeilik om Nvidia uit die posisie te kry.

“Nvidia is in hierdie posisie omdat hulle dit verdien het,” het Newman gesê. “Hulle het jare lank hierdie ontwikkelaarsekosisteem gebou – en dis die een wat gewen het.”

Die meeste Amerikaanse aandele-indekse het Vrydag gestyg namate optimisme oor moontlike rentekoersverlagings van die Federale Reserweraad weer opgeduik het.

John Williams, president van die New Yorkse Fed, het Vrydag gesê dat hy verwag dat die sentrale bank meer ruimte sal hê om rentekoerse te verlaag. Die invloedryke beleidmaker, wat in Chili gepraat het, het opgemerk dat risiko's vir die arbeidsmark nou swaarder weeg as dié wat met inflasie verband hou, wat die standpunt van die meer gematigde lede van die FOMC weerspieël.

Williams het gesê: “Ek beskou monetêre beleid as steeds matig beperkend, hoewel minder so as voor ons onlangse optrede. Ek sien dus steeds ruimte vir 'n bykomende aanpassing op kort termyn aan die teikenreeks vir die federale fondsekoers om die beleid nader aan neutraal te bring en balans tussen ons twee doelwitte te handhaaf.”

In verhandeling het die Dow Jones Industriële Gemiddelde met 0,4% (185 punte) gestyg tot 45 937 teen 16:15 GMT. Die breër S&P 500 het met 0,1% (7 punte) tot 6 545 toegeneem, terwyl die Nasdaq Composite met 0,1% (38 punte) tot 22 040 gestyg het.

Palladiumpryse het Vrydag hul daling voortgesit, onder druk van 'n sterker Amerikaanse dollar, onsekerheid oor vraag en verwagtinge van hoër aanbod.

Reuters het berig, met verwysing na ingeligte bronne, dat die Verenigde State privaat druk op Oekraïne uitoefen om 'n wapenstilstandooreenkoms met Rusland te aanvaar. So 'n ontwikkeling sal waarskynlik die wêreldwye voorraad van industriële metale 'n hupstoot gee namate sanksies teen Rusland – een van die wêreld se grootste palladium-uitvoerders – verslap word.

Volgens Capital.com het palladiumpryse sedert die begin van Oktober met sowat 26% gestyg tot ongeveer $1 500 per ons. Die styging het gekom tesame met winste in die platinummark en breër verslapping in wêreldwye finansiële toestande.

Weddenskappe op Amerikaanse rentekoersverlagings en vroeëre swakheid in die dollar het ook palladium ondersteun as deel van die sogenaamde "goud + likiditeit"-oplewing wat edelmetale die afgelope weke opgehef het.

Palladium word byna uitsluitlik in katalitiese omsetters vir petrolenjins gebruik, wat beteken dat enige pryswisselvalligheid die kostestrukture vir Amerikaanse motorvervaardigers en elektronikavervaardigers direk beïnvloed.

Tegniese ontleding van Monex dui op weerstand tussen $1 500 en $1 520 per ons, met verwagtinge vir 'n algehele bullish tendens, maar voortgesette onstabiele verhandeling voor. Ontleders by CPM Group het opgemerk dat palladium se onlangse sterkte "nou gekoppel is aan platinum se prestasie", terwyl hulle waarsku dat 'n verswakkende Amerikaanse arbeidsmark en volgehoue inflasie die vraag kan beïnvloed.

Ten spyte van 'n onlangs aangekondigde handelswapenstilstand tussen die VSA en China, dui kommentaar van Amerikaanse amptenare daarop dat spanning steeds hoog is. Die Amerikaanse Tesourie-sekretaris het gesê China bly 'n onbetroubare handelsvennoot, terwyl president Donald Trump herhaal het dat sy administrasie nie die uitvoer van gevorderde Nvidia-skyfies na China of ander lande sal toelaat nie.

Die Amerikaanse dollar-indeks het met 0,1% gestyg tot 100,2 teen 14:43 GMT, en verhandel tussen 'n hoogtepunt van 100,4 en 'n laagtepunt van 99,9.

Palladium-termynkontrakte vir Desember-aflewering het met 0,9% gedaal tot $1 374 per ons om 14:43 GMT.

Bitcoin het vroeg Vrydag kortliks tot $81 871,19 gedaal voordat dit naby $82 460 gestabiliseer het, 'n afname van ongeveer 10,2% oor die afgelope 24 uur.

Na byna 'n maand van volgehoue verkope, verhandel Bitcoin nou 10% onder sy vlak aan die begin van die jaar, nadat die meeste van die winste wat dit ná Donald Trump se verkiesingsoorwinning verlede jaar gemaak het, uitgewis is.

Die laaste keer dat Bitcoin onder $82,000 gedaal het, was in April – toe dit tot $75,000 gedaal het – tydens 'n breë markuitverkoping wat veroorsaak is deur Trump se aankondiging van omvattende tariewe by die "Bevrydingsdag"-geleentheid.

Gebaseer op data van Deribit — die opsie- en termynbeurs wat deur Coinbase besit word — het CoinDesk berig dat handelaars posisioneer vir verdere afwaartse koerse.

Ethereum, die tweede grootste kriptogeldeenheid volgens markwaarde, het onder $2 740 gedaal, meer as 9,6% laer oor 24 uur. Ander groot tokens het ook onder swaar druk gekom, met XRP, BNB en SOL wat onderskeidelik 9,1%, 8,4% en 10,6% gedaal het. Dogecoin - die grootste meme-munt - het 10,3% oor dieselfde tydperk verloor.

Nadat dit vroeg verlede maand nuwe rekordhoogtepunte bereik het, het die kriptomark bestendige dalings verduur na 'n ongekende eendaagse uitwissing op 10 Oktober, toe $19.37 miljard in hefboomposisies binne 24 uur gelikwideer is. Die gebeurtenis is aangevuur deur Trump se aankondiging van 'n bykomende 100%-tarief op Chinese invoere – 'n skuif wat hy later teruggetrek het. Digitale bates is ook die afgelope dae in breër markwisselvalligheid vasgevang, met meer as $2.2 miljard wat oor 24 uur gelikwideer is, volgens CoinGlass.

Die totale markwaarde van alle kriptogeldeenhede staan nou op $2,92 triljoen, volgens CoinGecko – 'n daling van 33% vanaf die piek van ongeveer $4,38 triljoen wat vroeg in Oktober bereik is. Sedert die begin van hierdie maand het Bitcoin se markkapitalisasie met ongeveer 25% gedaal, wat die steilste maandelikse daling sedert die kripto-ineenstorting van 2022 aandui, volgens Bloomberg.

Aandele van Strategy (voorheen MicroStrategy) – wyd beskou as 'n plaasvervanger vir Bitcoin as gevolg van sy massiewe besit – het Vrydag met 2,44% gedaal in voormarkverhandeling, nadat dit die afgelope week met 11% en die afgelope 30 dae met 41% gedaal het. Die maatskappy hou tans 649 870 BTC teen 'n gemiddelde aankoopprys van $74 430.

In 'n nota vroeër hierdie week het JPMorgan-ontleders gewaarsku dat Strategy die risiko loop om uit groot indekse soos die Nasdaq 100 en MSCI USA verwyder te word. So 'n uitsluiting kan verdere dalings in sy aandeel veroorsaak, en moontlik kripto-markte belas as die maatskappy gedwing word om 'n deel van sy Bitcoin-belange te verkoop.